Democratic Inputs to AI
GPT.icon
非営利組織OpenAIは、AIシステムがどのようなルールを遵守すべきかを決定するための民主的プロセスを設定する実験を資金提供するために、10件の10万ドルの助成金を授与するプログラムを立ち上げています。 これらの実験は、今のところ（少なくとも現時点では）決定に対する拘束力は意図していません
が、将来的にはより直接的に決定に情報を提供できるような民主的ツールの開発を探求することを期待しています。
最も強力なシステムのガバナンス、及びその展開に関する決定は、強い公的監督が必要です。 これはOpenAIの非営利組織によって提供され、研究結果は自由に利用可能になる予定です。
「民主的プロセス」とは、広範な代表グループが意見を交換し、討議を行い、最終的には透明な意思決定プロセスを通じて結果を決定するプロセスを指します。 一例として、ChatGPTを用いて意見の対話を促進し、合意形成を奨励するシステムの基本的なプロトタイプがあります。
ここでは、例えば「
ChatGPTのようなAIアシスタントがユーザーの好みや嗜好にどの程度まで合わせるべきか？
このプロセスにはどのような制限があるべきか？
」といったトピックに関する声明を提示し、その立場を述べることが求められます。
参加者のレスポンスに基づいて、同様の意見を共有する参加者とグループ化され、他の参加者が考慮すべき声明を提案します。
そのゴールは、相反する見解を持つ人々の間で合意を達成する声明を提案することです。
ChatGPTはプラグインを使用して他の参加者からの声明を取得することができます。
民主的プロセスは、
マイノリティーやマジョリティーグループの代表性が不十分であったり、 特定の利害関係グループによる操作があったり、
または参加者が参加を装っている
という問題により、そのプロセスが損なわれる可能性があります。
我々は、これらの失敗モードに積極的に対処し、さまざまなアプローチの可能性のある欠点とデメリットについての認識を示すチームを探しています。
真の民主的プロセスの設計は高いハードルであり、我々の努力は、AIの政府による規制の代替品ではなく、補完として位置づけています。
このプログラムは、熟議と広範な公的入力を伴う、民主的な精神を持ったプロセスを推奨しています。